Ilya Sutskever, salah satu pendiri OpenAI, mendirikan perusahaan baru bernama Safe Superintelligence Inc. (SSI) hanya sebulan setelah secara resmi meninggalkan OpenAI.
Sutskever, Kepala Ilmuwan OpenAI yang sudah lama menjabat, mendirikan SSI bersama dengan mantan mitra Y Combinator Daniel Gross dan mantan insinyur OpenAI Daniel Levy.
Di OpenAI, Sutskever berperan penting dalam upaya perusahaan untuk meningkatkan keamanan sistem AI dengan "Superintelligence" yang semakin berkembang. Di bidang ini, ia bekerja sama dengan Jan Leike, yang memimpin tim Superalignment OpenAI. Keduanya meninggalkan perusahaan pada bulan Mei setelah perselisihan dramatis dengan kepemimpinan OpenAI mengenai pendekatan keamanan AI. Leike kini memimpin sebuah tim di perusahaan AI pesaing, Anthropic.
Sutskever telah lama menangani aspek-aspek sulit keamanan AI. Dalam sebuah posting blog yang diterbitkan pada tahun 2023, ia bersama Leike meramalkan bahwa AI dengan kecerdasan yang melampaui manusia bisa datang dalam satu dekade - dan bahwa AI ini tidak selalu akan baik hati, yang mengharuskan penelitian untuk mengontrol dan membatasi sistem semacam itu.
Berikut adalah terjemahan untuk judul tersebut ke dalam bahasa Indonesia:
"Pada Rabu sore, sebuah tweet mengumumkan pendirian perusahaan baru Sutskever: 'SSI adalah misi kami, nama kami, dan seluruh peta jalan produk kami, karena itu adalah satu-satunya tujuan kami. Tim kami, investor kami, dan model bisnis kami semuanya diarahkan untuk mencapai SSI. Kami mendekati keamanan dan kemampuan secara bersamaan, sebagai masalah teknis yang harus diselesaikan melalui terobosan revolusioner dalam bidang teknik dan ilmu pengetahuan.'
„Kami berencana untuk mendorong kemampuan secepat mungkin sambil memastikan bahwa keamanan kami selalu di depan. Dengan cara ini, kami dapat meningkatkan dengan tenang. Satu-satunya tujuan kami berarti tidak ada gangguan oleh manajemen overhead atau siklus produk, dan model bisnis kami berarti bahwa keamanan, keamanan, dan kemajuan dilindungi dari tekanan komersial jangka pendek.“
Dalam sebuah percakapan dengan Bloomberg, Sutskever membahas lebih lanjut tentang perusahaan baru tersebut, tetapi menghindari pembicaraan tentang pendanaan atau penilaian.
Namun, tampaknya jelas bahwa SSI tidak seperti OpenAI – yang awalnya didirikan pada tahun 2015 sebagai organisasi nirlaba dan kemudian direstrukturisasi setelah kebutuhan akan sejumlah besar uang untuk daya komputasi menjadi jelas – dari awal telah dirancang sebagai perusahaan berorientasi keuntungan. Mengingat minat pada AI dan kualifikasi spesifik tim, perusahaan ini mungkin akan segera kebanjiran modal. "Dari semua masalah yang kami hadapi," kata Gross kepada Bloomberg, "penggalangan modal tidak akan menjadi salah satunya.
SSI memiliki kantor di Palo Alto dan Tel Aviv serta sedang merekrut bakat teknis.
